据史志记载，刘公庙始建于明代。清光绪十四年（公元1888年），北洋海军在刘公岛成军，驻岛护军统领张文宣，为使军民获得刘公刘母的护佑，出资重修刘公庙。
清政府的海军大臣奕环亲王和李鸿章，在检阅北洋海军的仪式中绵进庙叩拜，北洋海军将士每次出海或作战都到庙中进香叩拜。1898年英国强租威海卫，刘公岛上的土地和房屋被英国全部购买，迫居民迁出岛外，刘公庙随迁岛外，现庙已不存，但留有一碑载“神本依人，庙迁岛外”。刘公岛上的原刘公庙遗址仍存。
为了丰富刘公岛的人文景观，1994年再建刘公庙，占地800平方米，前置进山门，左右钟鼓楼，前院上一台阶进中院，东侧殿匾额题“琼岛苍桑”，西侧殿匾额题“千古流芳”，两殿各塑五组彩色泥塑，述说刘公刘母神迹及刘公岛两千年的历史变迁。正殿悬“海之光”匾，塑刘公刘母座像，两侧塑高两米的风、雨、雷、闪、千里眼、顺风耳、正、恶八尊神像。内容设置充分体现了海岛之神和民俗风情。
刘公庙是了解刘公岛名称由来和历史的游览景点，也是刘公岛规划发展的第一个建设项目。再建刘公庙以来，游人慕名而来，络绎不绝，门票：10元。
